«بدون هیچ انسانی در اتاق فرمان»: طرح دلاور به عامل‌های هوش مصنوعی اجازه می‌دهد شرکت‌ها را به‌طور کامل اداره کنند
به گفته جیمز کومر، نماینده کنگره آمریکا، مالکان شرکت‌های اداره‌شونده با هوش مصنوعی از مسئولیت‌پذیری در قبال اقدامات «بی‌پروا» این فناوری فرار خواهند کرد.
جیمز کومر (جمهوری‌خواه از کنتاکی)، نماینده کنگره آمریکا، دیروز در نامه‌ای به مت مایر، فرماندار دلاور، اعلام کرد که طرح پیشنهادی در ایالت دلاور برای اداره شرکت‌ها توسط عامل‌های هوش مصنوعی، به مالکان انسانی کمک می‌کند تا از مسئولیت قانونی در قبال اقدامات بی‌پروا و زیان‌بار هوش مصنوعی شانه خالی کنند.
کومر، رئیس کمیته نظارت و اصلاح دولت در مجلس نمایندگان، به مایر گفت که این کمیته «به دنبال دریافت اسنادی مربوط به تلاش‌های دولت ایالتی شما برای ایجاد نوع جدیدی از نهاد شرکتی به نام شرکت هوش مصنوعی (AIC) است».
کومر گفت این طرح به شدت مستعد سوءاستفاده است. در نامه کومر آمده است: «ما نگران هستیم که پیشنهاد شرکت‌های هوش مصنوعی در دلاور می‌تواند برای محافظت از شرکت‌های قدرتمند هوش مصنوعی و سرمایه‌گذاران آن‌ها در برابر مسئولیت اقدامات بی‌پروا و زیان‌بار استفاده شود، و در عین حال، نیروهای غیرشفافی را که به دنبال تصاحب تنظیم‌گری ضد رقابتی در پشت ابتکارات هوش مصنوعی ایالتی هستند، مصون نگه دارد».
کومر پیشنهاد کرد که ممکن است قانون فدرالی را پیشنهاد کند که اختیارات نظارتی ایالت‌ها را محدود کند. او گفت که بررسی این طرح توسط کمیته «تلاش‌های قانون‌گذاری احتمالی فدرال، از جمله پیشنهادهایی برای محدود کردن مناسب ابتکارات نظارتی هوش مصنوعی در سطح ایالت را هدایت خواهد کرد». کومر با استناد به «صلاحیت کمیته نظارت برای بررسی روابط بین‌دولتی از جمله روابط ایالت‌ها»، اسناد مربوط به توسعه این پیشنهاد و خطرات احتمالی ایمنی هوش مصنوعی را مطالبه کرد.
شرکت‌های اداره‌شونده با هوش مصنوعی می‌توانند تقریباً در هر صنعتی به جز بانکداری فعالیت کنند. طبق پیش‌نویس لایحه‌ای که ممکن است به مجلس ایالتی دلاور ارائه شود: «یک شرکت هوش مصنوعی (AIC) ممکن است هر هدف قانونی، صرف‌نظر از سودآور بودن یا نبودن، به جز کسب‌وکار بانکداری داشته باشد».
این پیش‌نویس می‌گوید عامل‌های هوش مصنوعی می‌توانند «برای مدیریت کسب‌وکار و امور، و هدایت تجارت شرکت‌های هوش مصنوعی تعیین شوند». این لایحه یک «جعبه شنی نظارتی» (regulatory sandbox) را پیشنهاد می‌کند که به مدت ۳۰ ماه برای آزمایش این ایده وجود خواهد داشت. اجازه دادن به شرکت‌های اداره‌شونده با هوش مصنوعی، درآمد بیشتری از طریق مالیات و عوارض نصیب دلاور خواهد کرد؛ ایالتی که در حال حاضر مقصد برتری برای نهادهای تجاری در هر مقیاسی است.
«پاسخ این است که هوش مصنوعی را در قالب قانونی بپیچیم»
در ژوئیه ۲۰۲۶، چارونی پاتیباندا سانچز، وزیر امور خارجه دلاور، با همکاری یکدیگر مقاله‌ای در نشریه «فرچون» (Fortune) نوشت و در آن این پیشنهاد را اعلام کرد. در این مقاله آمده بود که «هیچ‌چیز در قوانین چندین ایالت به طور واضح مانع از آن نمی‌شود که یک عامل هوش مصنوعی شرکتی را بدون هیچ انسانی در راس آن اداره کند» و ایالت‌ها باید چارچوب‌های قانونی برای نرم‌افزارهای خودمختاری ایجاد کنند که قادرند بدون دخالت انسان، قرارداد ببندند، به تأمین‌کنندگان پول پرداخت کنند و تراکنش انجام دهند.
در این مقاله آمده است: «پاسخ این نیست که سعی کنیم این فعالیت را ممنوع کنیم؛ هر تلاشی برای انجام این کار بههمان اندازه بعید است موفق شود که فناوری و حامیان آن به احتمال زیاد مرزهای قانون را جابه‌جا خواهند کرد. پاسخ این است که هوش مصنوعی را در قالب قانونی بپیچیم. به یک سیستم خودمحور، هویت قانونی قابل‌شناسایی بدهید تا آن را برای قانون خوانا کنید. شما یک هدف مشخص ایجاد می‌کنید که مسئولیت‌ها و خسارات می‌توانند به آن متصل شوند. شما رفتار عامل را قابل‌مشاهده، قابل‌ردیابی و پاسخگو می‌کنید».
این مقاله توضیح داد که چگونه یک شرکت اداره‌شونده با هوش مصنوعی، انسان‌ها را از مسئولیت‌های قانونی مصون می‌دارد:
یک شرکت هوش مصنوعی (AIC) در دلاور یک نهاد قانونی مستقل خواهد بود که امور روزمره آن به جای یک شخص، توسط یک عامل هوش مصنوعی مدیریت می‌شود. با دستور این عامل، شرکت هوش مصنوعی می‌تواند به نام خود اقامه دعوا کند یا مورد شکایت قرار گیرد، دارایی‌ها را حفظ و واگذار کند و تعهداتی را بپذیرد. این شرکت دارای یک عضو واحد، یعنی یک شخص یا نهاد است که مسئولیت حفظ سرمایه کافی شرکت را بر عهده دارد و شرکت باید گزارشی از فعالیت‌های خود را نگهداری کند. آن عضو در برابر بدهی‌های شرکت هوش مصنوعی مصون است، مگر در مواردی که در تأمین سرمایه شرکت کوتاهی کند یا از آن برای ارتکاب تقلب یا نقض عمدی قانون استفاده کند.
بر اساس قانون پیشنهادی، «عضو» فرد یا شرکتی است که بودجه شرکت اداره‌شونده با هوش مصنوعی را تأمین می‌کند و از هرگونه سود بهره‌مند می‌شود، اما یک عامل هوش مصنوعی را برای مدیریت کسب‌وکار واقعی تعیین می‌کند. پیش‌نویس لایحه می‌گوید: «عضو در قبال هیچ‌گونه اقدام یا قصوری که شرکت هوش مصنوعی انجام می‌دهد یا در انجام آن کوتاهی می‌کند، یا شخص دیگری به دستور شرکت هوش مصنوعی انجام می‌دهد یا در انجام آن کوتاهی می‌کند، مسئولیتی ندارد». استثنائاتی وجود دارد برای زمانی که یک فرد از شرکت اداره‌شونده با هوش مصنوعی «برای ارتکاب تقلب یا هرگونه نقض عمدی قانون استفاده کند» یا «باعث شود یا اجازه دهد شرکت هوش مصنوعی زمانی کسب‌وکار انجام دهد که عضو می‌دانسته یا باید می‌دانسته که آن رفتار خارج از بیانیه هدف شرکت هوش مصنوعی است».
کومر با اشاره به اعلامیه پاتیباندا سانچز، نوشت که یک شرکت اداره‌شونده با هوش مصنوعی «محافظت در برابر مسئولیت در قبال خطرات احتمالی برای شرکای تجاری، مصرف‌کنندگان و عموم مردم را که توسط هوش مصنوعی کنترل‌کننده ایجاد می‌شود، برای انسان یا نهاد تأمین‌کننده سرمایه شرکت فراهم می‌کند».
یک سخنگوی فرماندار مایر امروز به رسانه Ars گفت: «ما نامه را دریافت کرده‌ایم و در حال بررسی آن هستیم». سخنگوی پاتیباندا سانچز از اظهار نظر خودداری کرد و گفت که دفتر فرماندار در حال رسیدگی به درخواست‌های مطبوعاتی در این زمینه است.
مقاله پاتیباندا سانچز می‌گوید جعبه شنی نظارتی برنامه‌ریزی‌شده دلاور «تجارت عاملیت‌محور (agentic commerce) را در روشنایی روز، تحت نظارت، با سرمایه گره‌خورده به مسئولیت و توانایی خاموش کردن سیستم، آزمایش خواهد کرد». در این مقاله آمده است که دوره آزمایشی ۳۰ ماهه به مجلس قانون‌گذاری ایالت «سابقه کاملی برای تصمیم‌گیری در مورد نحوه قانون‌گذاری» شرکت‌های اداره‌شونده با هوش مصنوعی می‌دهد.
دلاور، میزبان بیشتر شرکت‌های فهرست فرچون ۵۰۰
یک قانون ایالتی آینده که به شرکت‌های اداره‌شونده با هوش مصنوعی اجازه فعالیت دهد، به ویژه در دلاور تأثیرگذار خواهد بود، زیرا حدود دو سوم شرکت‌های فهرست فرچون ۵۰۰ در این ایالت به ثبت رسیده‌اند. اگرچه ایلان ماسک اکنون تگزاس را ترجیح می‌دهد، اما بسیاری از شرکت‌ها دلاور را به خاطر مالیات شرکتی پایین و چارچوب قانونی دوستدار کسب‌وکارش انتخاب می‌کنند. پاتیباندا سانچز می‌بالد که دلاور «قابل‌پیش‌بینی‌ترین و تجارت‌محورترین خانه قانونی در جهان» را فراهم می‌کند و در سال ۲۰۲۵، تعداد ۳۳۴,۴۶۱ نهاد جدید در دلاور تشکیل شده است.
پاتیباندا سانچز در طرح جعبه شنی با یک شرکت خصوصی همکاری کرد که می‌گوید عامل‌های هوش مصنوعی قانونی برای کسب‌وکارها می‌سازد. در مقاله مشترکی که توسط پاتیباندا سانچز و جان نی، بنیان‌گذار و مدیرعامل شرکت Norm Ai نوشته شده، آمده است: «چارچوب تعامل صنعت با شرکت‌های هوش مصنوعی (AIC) به عنوان بخشی از یک مشارکت عمومی-خصوصی به رهبری Norm Ai در دلاور در حال توسعه است».
مایر، که یک دموکرات است، در پاسخ به یک پست رسانه اجتماعی در آوریل ۲۰۲۶ از سوی مارک کوبان، ایده اجازه دادن به عامل‌های هوش مصنوعی برای ثبت شرکت را علناً تأیید کرد. کوبان نوشت: «اگر من فرماندار ایالتی بودم که به دنبال افزایش درآمدهای خود بود، امکان ثبت شرکت توسط هر کسی را با استفاده از یک عامل هوش مصنوعی و استیبل‌کوین‌ها اضافه می‌کردم. و برای این خدمات هزینه ویژه‌ای دریافت می‌کردم. برای ساده‌سازی کار برای همه، آن عامل را در بازارها/اتصالات مدل‌های زبانی بزرگ (LLM) قرار دهید. اولین کسی که وارد بازار شود، سود کلانی به جیب می‌زند».
حساب رسمی X مایر پاسخ داد: «روی آن هستم!» و پیوندی به اعلامیه ژوئیه ۲۰۲۵ مایر درباره طرح جعبه شنی هوش مصنوعی منتشر کرد که در آن ذکر شده بود «فناوری‌های هوش مصنوعی می‌توانند با ایمنی در بخش‌های با تأثیرگذاری بالا، از جمله حاکمیت شرکتی، بیوتکنولوژی، مراقبت‌های بهداشتی، مواد شیمیایی و خدمات مالی توسعه یافته و مستقر شوند».
در ژوئیه ۲۰۲۵، مایر قطعنامه قانون‌گذاری «ایجاد یک چارچوب جعبه شنی نظارتی برای آزمایش فناوری‌های نوآورانه و جدید که از هوش مصنوعی عاملیت‌محور استفاده می‌کنند» را امضا کرد. کمیسیون هوش مصنوعی دلاور در گزارش سالانه دسامبر ۲۰۲۵ خود اعلام کرد که این امر باعث شد کمیسیون، یک زیرمجموعه جعبه شنی (Sandbox Subcommittee) تشکیل دهد تا روی «پیش‌نویس چارچوب نظارتی که یک جعبه شنی نظارتی برای آزمایش و ارزیابی هوش مصنوعی عاملیت‌محور و کاربرد آن در حاکمیت شرکتی ایجاد کند» کار کند.
این کمیسیون اعلام کرد که زیرمجموعه جعبه شنی در حال کار بر روی «پیش‌نویس قانون احتمالی» است و گزارشی از پاتیباندا سانچز «در مورد کار گروهی که او برای بررسی ساختار احتمالی یک جعبه شنی نظارتی تشکیل داده است» دریافت کرده است.
شرکت‌های اداره‌شونده با هوش مصنوعی می‌توانند «هر کاری که یک شرکت می‌تواند انجام دهد» را انجام دهند
در ژوئن ۲۰۲۶، پیش‌نویس این قانون در مقاله‌ای در Spotlight Delaware تشریح شد که در آن گفته شده بود این لایحه احتمالاً سال آینده به مجلس قانون‌گذاری ایالت معرفی خواهد شد. در این مقاله آمده است:
جان مارک زیبرکیویچ، تهیه‌کننده اصلی قانون پیشنهادی، گفت که این لایحه می‌تواند به عامل‌های هوش مصنوعی اجازه دهد تا تقریباً در هر فعالیت تجاری مشارکت کنند؛ از ارائه خدمات کدنویسی گرفته تا امضای قراردادها، یا حتی ثبت و دفاع از دعاوی حقوقی. او همچنین خاطرنشان کرد که این طرح به دنبال محافظت از مالکان شرکت‌های هوش مصنوعی جدید در برابر مواجهه با مسئولیت قانونی ناشی از اقداماتی است که ممکن است هوش مصنوعی انجام دهد. زیبرکیویچ، وکیل شرکتی در شرکت ریچاردز لیتون اند فینگر (Richards Layton and Finger) در ویلمینگتون، گفت: «هر کاری که یک شرکت می‌تواند انجام دهد، شرکت هوش مصنوعی (AIC) نیز به عنوان یک شرکت می‌تواند انجام دهد».
بر اساس مقاله Spotlight Delaware، پاتیباندا سانچز در جلسه کمیسیون هوش مصنوعی دلاور در ژوئن ۲۰۲۶ گفت که این ایالت از هزینه‌های پرداخت‌شده برای تشکیل نوع جدید شرکت‌های اداره‌شونده با هوش مصنوعی سود خواهد برد. پاتیباندا سانچز گفت: «اگر یک فرم نهاد جدید از این طریق ایجاد شود، این در واقع یک سود بزرگ برای درآمدهای ایالت ماست».
اندرو بیکر، استاد حقوق دانشگاه برکلی کالیفرنیا، به فایننشال تایمز گفت که پیشنهاد دلاور احتمالاً «یک سپر مسئولیت بیش از حد سخاوتمندانه به نظر می‌رسد که بدون برخی منطق‌های سیاستی اساسی که به خوبی توسعه نیافته یا توجیه نشده‌اند، ناموجه به نظر می‌رسد».
مارتین پترین، استاد حقوق در دانشگاه یورک در تورنتو، به بلومبرگ گفت: «ایالت‌های دیگر احتمالاً برای رقابت در این زمینه با پیشنهادات مشابهی پیش خواهند رفت. اگر آن‌ها در این مورد جدی باشند، یک چارچوب فدرال می‌تواند به رفع نگرانی‌ها در مورد ایمنی و رقابت منفی نظارتی کمک کند».
نظر مهندس بهمن آبادی: طرح شرکت‌های هوش مصنوعی در دلاور، اگرچه تلاشی عمل‌گرایانه برای قانون‌مند کردن تجارت عامل‌محور است، اما با ایجاد سپر نظارتی و سلب مسئولیت از مالکان، خطر سوءاستفاده‌های ساختاری را به شدت بالا می‌برد. به عنوان یک برنامه‌نویس، معتقدم خودکارسازی کامل بیزینس‌ها بدون مکانیسم‌های دقیق مهار و شفافیت الگوریتمی، سیستم‌های مالی و حقوقی را به سمتی پیش می‌برد که باگ‌های منطقی هوش مصنوعی می‌توانند پیامدهای فاجعه‌بار دنیای واقعی بدون پشتوانه پاسخگویی انسانی برجا بگذارند. این رویکرد نیازمند نظارت شدید فدرال و استانداردهای سخت‌گیرانه‌تر ایمنی پیش از تجاری‌سازی است.